Разработчики ИИ-агентов всё чаще выступают за приостановку выпуска новых технологий. Такая пауза, по их мнению, нужна, чтобы успеть проработать механизмы защиты. Многие из тех, кто создаёт подобные системы, уже выразили обеспокоенность.
О рисках, связанных с потерей контроля над такими технологиями, высказался Антониу Гуттереш, возглавляющий Организацию Объединённых Наций. По его словам, утрата управления искусственным интеллектом способна обернуться большими проблемами.
Он отметил, что игнорировать прозвучавшие опасения недопустимо — прежде всего когда речь идёт о тех, кто работает на переднем крае разработки. Именно эти специалисты, как было подчёркнуто, лучше других понимают возможные угрозы.
Гуттереш также обратил внимание: в условиях, когда человечеству угрожают глубокое неравенство, климатический кризис и потеря управления искусственным интеллектом, критически важным становится взаимодействие на глобальном уровне.
